MERHABA DÜNYA-Makine Çağında İnsan Olmak-Hannah FRY

BAŞLARKEN…

Bu kitap aynı zamanda, bir algoritmanın toplum için net bir fayda sağlayıp sağlamadığını sorgulamak hakkında.

Önce konumuzla doğrudan ilişkisi nedeniyle “Algoritma” sözcüğünün gerçekte ne anlama geldiğine bakmakla yola koyulalım…

Algoritma (isim): Özellikle bir bilgisayarın, bir problemin çözümüne veya bir amaca ulaşmak için adım adım izlediği yoldur.

Bu genel tanıma göre, bir pasta tarifinin bir algoritma olduğu söylenebilir. Kaybolmuş bir yabancıya verdiğiniz yol tarifi de öyledir. IKEA rehberleri, YouTube sorun çözme videoları, hatta kişisel gelişim kitapları gibi teoride, belirli ve tanımlanmış bir amaca sahip yönerge listelerinin hepsi birer algoritmadır.

Ama terim pek bu şekilde kullanılmaz. Genelde, algoritmalar bundan daha belirgin bir şeyi ifade eder. Temelde, yine adım adım yönlendirme listesi olarak nitelenebilse de söz konusu algoritmaların neredeyse her zaman matematiksel bir amacı vardır. Denklem, aritmetik, cebir, yüksek matematik, mantık ve olasılık hesaplamalarını kullanarak bir dizi matematik işlemi gerçekleştirir ve bunu bilgisayar koduna dönüştürürler.

Algoritmalar neredeyse sayılamayacak kadar farklı çeşide sahiptir. Her birinin kendi amacı, kendine has özellikleri, zekice tuhaflıkları ve sorunları vardır: en iyi şekilde nasıl sınıflandırılacakları konusunda bir fikir birliği de yoktur. Fakat gerçekleştirdikleri gerçek dünya görevlerini kabaca dört ana kategoriye ayırmak faydalı olabilir:

Öncelik verme: Sıralı bir liste çıkarmak

Sınıflandırma: Kategori seçmek

İlişkilendirmek: Bağlantıları bulmak

Filtreleme: Önemli olanı ayırmak.

Yapay zekâ son zamanlarda büyük aşamalar kaydetmiş olsa da henüz çok kısıtlı bir zekâya sahip. Şu anda bulunduğumuz evrenin, bir yapay zekâ devrimi değil de bir bilgisayar istatistikleri devrimi olduğunu düşünmek muhtemelen daha faydalı olacaktır.

Şu anda şeytani yapay zekâ konusunda endişelenmek, Mars'taki aşırı nüfus yoğunluğuna kafa yormaktan farksızdır. Belki günün birinde, bilgisayar zekasının insanınkini geçtiğine tanık olacağız, ama şimdilik buna epey uzağız. Açıkçası henüz bir kirpi seviyesinde zekâ üretmenin bile çok ama çok uzağında bulunuyoruz. Şu ana dek, bir kurtçuğunkini bile aşabilen olmadı.

Ayrıca, yapay zekâ etrafında dönen tüm bu uydurmalar çok daha önemli endişelere ve-bana kalırsa- ilginç durumlara odaklanmamızı engelliyor. Yapay zekaya sahip makinelerin iktidara geçmesini bir anlığına unutun ve dikkatinizi şu anda olup bitene verin derim.

Çünkü kendi başına kararlar alıp uygulayabilen, özgür algoritmalar çoktan faaliyete geçmiş durumda. Mahkemede hüküm vermekten kanser hastalarının tedavisine ve araba kazasında ne yapılacağına dek, hayatımızın her aşamasında bizim adımıza hayati seçimlerde bulunmaya başladılar bile.

Bunca gücü onların eline bırakacaksak soracağımız soru şu olmalı: Bu güveni hak ediyorlar mı?

Süpermarkete gittiğimizde kasiyerlerden, aldıklarımıza gözlerini dikerek ne kadar ödememiz gerektiğini hesaplamasını beklemiyoruz. Bunu bizim yerimize hesaplayacak (aşırı derecede basit) bir algoritma kullanıyoruz. Çoğu zaman da işi makineye bırakmamız daha iyi sonuç veriyor.

Hava yolu pilotlarının kendi aralarında söylediği gibi, en iyi uçuş ekibi üç üyeden oluşur: bir pilot, bir bilgisayar ve bir köpek. Bilgisayar uçağı uçurmaya, pilot da köpeği beslemeye yarar. Köpek de bilgisayara el uzatmaya kalktığı takdirde insanı ısırmak için oradadır.

Ancak makinelerle olan ilişkimizde bir paradoks vardır. Anlamadığımız her şeye aşırı güvenme eğilimi duymamıza karşın, bir algoritmanın hata yapabileceğini öğrendiğimiz anda onu tamamen yok sayarak kendi hatalı yargımıza bel bağlama gibi can sıkıcı bir huya da sahibiz. Araştırmacılar buna “algoritma tiksintisi” diyor. İnsanlar algoritmaların hatalarına, kendi yaptıklarına nazaran daha az tolerans gösteriyor-kendi hataları daha büyük olsa bile.

VERİ

Google, Facebook, Instagram ve Twitter gibi internet devleri, kullanıcılarından para kazanmaz, bu nedenle iş modelleri mikro hedefleme temellidir. Sayısı milyonları bulan kullanıcılarının, sitelerinde aktif şekilde dolanarak sponsorlu gönderileri okumasından, sponsorlu videoIarı izleyip sponsorlu fotoğraflara bakmasından para kazanan devasa reklam ulaştırma motorlarıdır. İnternetin hangi köşesinde dolanırsanız dolanın, arka planda gizlenen bu algoritmalar sizin asla isteyerek sunmadığınız bilgileri, size fark ettirmeden toplar ve pazarlar. En kişisel ve özel sırlarınızı ticari mala dönüştürürler.

Ne yazık ki çoğu ülkede, hukuk sizi korumak adına pek bir şey yapmaz. Veri aracılığı yasal anlamda belirgin bir düzene tabi değildir ve-özellikle de Amerika'da- aracıların gücünün önüne geçmek için elde edilen fırsatlar hükümet tarafından defalarca göz ardı edilmiştir. Örneğin Mart 2017'de, ABD Senatosu veri aracılarının internet tarayıcısı geçmişinizi rızamız olmadan satmasını önleyecek yasaya karşı oy kullandı.

2014’te Cambridge ve Stanford Üniversitelerinden bir grup araştırma ekibi birinin Facebook profilindeki 300 beğeniyi derleyip sunduğunuzda, algoritmaların o kişinin karakterini kendi eşinden daha doğru şekilde tanımlayacağını iddia eder hale gelmişti.

Hızla günümüze gelindiğinde, akademik araştırma grubunun- Cambridge Üniversitesi’ndeki Psikometri Merkezi- algoritmasını Twitter akışınızdan kişilik tahminleri yapacak kadar ilerlettiğini görüyoruz.

Veri toplamanın tehlikelerinin farkında olmamız şart. Bu veri kümelerinin ucunun nereye dokunacağını iyi hesaplamamız gerekir; kişisel meselelerin ötesine geçme ve hatta (sanki yeterince kötü değilmiş gibi) demokratik düzeni bozma olasılığı bile taşıyabilir. Bu da distopik¹ muhabbetin başka bir dönemecidir. Bu yoğun ve birbiriyle bağlantılı veri kümeleri uygulaması Netflix'in popüler dizisi Black Mirror'a özgü değil, gerçekte de var. Çin hükümeti tarafından kullanılan ve Sesame Credit (Susam Kredisi) olarak bilinen bir vatandaşlık derecelendirme sistemi.

Sesame Credit, "karmaşık" derecelendirme algoritmasının detaylarını açık etmiyor. Ama şirketin teknoloji direktörü Li Yingyun, Beijing merkezli Caixin Medya ile gerçekleştirdiği bir söyleşide, uygulamanın sonuçlarından varılabileceklerin birkaç örneğini paylaştı. "Örneğin günde on saat video oyunu oynayan biri, aylak bir insan olarak değerlendirilir. Düzenli bebek bezi satın alan biri de büyük olasılıkla sorumluluk duygusu olan bir Ebeveyn alarak görülür."

Çinliyseniz bu derecelendirme önem taşır. Skorunuz 600'ün üzerindeyse özel bir kredi kartının sahibi olabilirsiniz. 666 puan üzerindeyse daha yüksek limitli bir kartla ödüllendirilirsiniz. Puanı 650'nin üzerinde olanlar, depozito vermeden araç kiralayabilir ve Beijing havalimanının VIP sırasını kullanabilir. 750'den yüksek puanlılarsa Avrupa'ya hızlı vize için başvurabilir.

Bu düzen gönüllülük esasına göre işlediği müddetçe sorun yok. Ama vatandaşlık derecelendirme sistem 2020’de mecburi hale geldiğinde, düşük skora sahip olan insanlar yaşamlarının her alanında büyük kısıtlamalara maruz kalacak. Boyun eğmeyen herkesin çeşitli cezalara tabi tutulacağını da hükümetin sistemin can alıcı noktaları hakkındaki kendi raporunda görebiliyoruz: "Sınır dışına çıkış kısıtlamaları; mülk satın alma, uçak yolculuğu, turizm, tatil ya da yıldızlı otellerde kalmaya dair kısıtlamalar…"

Sadakat yüceltiliyor. Güven sarsıcı hareketler cezalandırılıyor. Leiden Universitesi Van Vollenhoven Enstitütüsü'nden, Çin hukuku ve yönetimi konusunda uzman olan akademisyen Rogier Creerners'ın belirttiği üzere, "Bunu anlamanın en iyi yolu, ona sadakat projesinin bir çeşit gayri meşru aşk çocuğuymuş gibi bakmak.”

Sesame Credit'in içinize su serpecek pek bir yönünü bulamasam da ruhunuzu tümden karartmak istemem doğrusu. Umut her yerde yeşerebilir. Önümüzdeki yol ne kadar karanlık görünürse görünsün, akıntının yavaşça değiştiğinin işaretleri de yok değil.

Veri bilimi topluluğundakilerin çoğu, insanların kişisel bilgilerinin kâr elde etmek için sömürüldüğünün bir süredir farkında ve buna karşı çıkıyor.

Bir defa internette gezinirken "şartlar & Koşullar" metinlerine pek dikkat etmiyoruz, bu yüzden farkında olmadan kendimizi bir şeylere rıza göstermiş halde bulabiliriz.

Veri eğer yeni altınsa, bizler de Vahşi Batı'da yaşıyoruz demektir. Ama ben olumlu taraftan bakıp-çoğumuz açısından- en kötü günlerin çok yakında geride kalacağını düşünüyorum.:

Yine de hayatta her şeyin bir bedeli olduğunu unutmamalıyız. Yasalar günü yakalar; şirket kârı ile kamuoyu yararı arasındaki kavga kızışırken, sahte bir güven hissiyle rehavete kapılmamaya dikkat etmeliyiz. Ne zaman bir algoritma kullansak özellikle de bedavaysa- kendimize gizli amacın ne olabileceğini sormalıyız. Bu uygulama bunca şeyi neden bedavadan veriyor? Bu algoritma gerçekte ne iş görüyor? Bu takas içime siniyor mu? Onu kullanmasam benim için daha mı iyi olur?

Sanal alemin ötesine geçen bir ders bu, çünkü bu türden hesaplamalar şimdilerde toplumumuzun gerçek anlamda her alanını etkiler hale geldi. Veri ve algoritmalar yalnızca alışveriş alışkanlıklarımızı öngörme gücüne değil, insanların özgürlüğünü çalma kudretine de sahip artık.

ADALET

Hiçbir sistem mükemmel değildir. Adaletsizliklerin birbiriyle zıtlaştığı bir kaos, birbiriyle yarışan haksızlıkların yarattığı bir karmaşa görülür hep. Fakat bu tür fikir ayrılığı ve karmaşanın, bir algoritma sayesinde çözülme şansı var. Çünkü-şaşırtıcı bir şekilde- algoritma sürecin bir parçası haline geldiğinde hem tutarlı hem bireysel adalet sağlanabilir. Kimsenin bu ikisi arasında seçim yapmasına gerek kalmaz.

Algoritmalar suça karar veremez. Savunma ve iddia makamlarının savlarını tartamaz ya da kanıtları analiz edemez veya bir zanlının gerçekten pişmanlık duyup duymadığını da bilemez. Bu yüzden onların yakın gelecekte yargıçların yerini almasını beklemeyin. Algoritmanın yapabileceği, görünüşte inanılmaz olsa da birey hakkındaki veriyi kullanarak onun yeniden suç işleme olasılığını hesaplamaktır. Yargıçlar da kararlarının çoğunu, zanlının suça dönüp dönmeyeceğini tartarak aldığından, bu gayet faydalı bir olanaktır.

Gerçi kesin olan bir şey var: Yargıçlar ve algoritmaların tahminleri konusunda uyuşmadığı. Araştırmacılar, algoritma tarafından kötü adam olarak işaretlenen zanlıların çoğunun yargıçlarca düşük risk teşkil edenler sınıfına sokulduğunu gördü. Hatta algoritmanın en riskli grup kapsamında değerlendirdiği zanlıların yarısına yakını, yargıçlar tarafından kefaletle serbest bırakılmıştı.

İyi de kim haklıydı? Veriler, algoritmanın kuşkulandığı grubun gerçekten de risk teşkil ettiğini gösterdi. Yüzde 56’sından fazlası duruşmalarına katılmamış ve yüzde 62,7'si kefalet altındayken yeni suçlar işlemişti: hem de tecavüz ve cinayet gibi en berbatlarını. Algoritma bunları öngörebilmişti.

Araştırmacılara göre, ne şekilde kullanılırsa kullanılsın algoritmalar insan yargıçlardan büyük oranda daha iyi iş çıkarmıştı. Rakamlar da onları doğruluyordu.

Son sekiz yıldır bu türden algoritmalar kullanan Rhode Island eyaleti, hapishane nüfusunu %17 oranında azaltmayı ve yeniden suç işleme oranını da %6 düşürmeyi başardı. Bu da yüzlerce düşük risk teşkil eden zanlının boş yere hapishaneleri doldurmasının ve yüzlerce suçun işlenmesinin önüne geçilmesi demek. Ayrıca Birleşik Krallık’ ta bir suçluyu hapiste bir yıl tutmanın maliyetinin 30 bin sterlinin üzerinde olduğunu düşünürsek-ABD’de ise yüksek güvenlikli bir hapishanede bir yıl geçirmek Harvard’a gitmekle neredeyse aynı maliyete sahiptir.- böylelikle binlerce mükellefin ödediği vergi de çarçur edilmekten kurtulur. Herkes kazançlı çıkar.

Peki acaba gerçekten öyle midir?

Hukuki açıdan ırk, cinsiyet ve sınıfın, yargıcın kararında etkili olmaması gerek. (Adaletin gözü kördür sonuçta.) Ama yine de yargıçların büyük çoğunluğu elden geldiğince önyargısız olmak istese de kanıtlar, gerçekten tekrar tekrar ayrımcılık yapıldığını gösteriyor.

ABD’de yapılan araştırmalarda, siyah zanlıların ortalama olarak daha fazla hapiste kaldığı, kefalet hakkını daha az elde ettiği, ölüm cezasına daha sıklıkla çarpıtıldığı ve ölüm cezası alanların büyük olasılıkla ceza infazının gerçekleştiği ortaya kondu.

Ne yazık ki önyargılı yargıçlar söz konusu olduğunda işler daha da sarpa sarıyor. Kız çocuğu sahibi yargıçlar, kadınların lehine karar vermeye daha eğilimli oluyor. Tuttuğu takım son maçta yenilmişse yargıcın kefalet talebini olumlu karşılama şansı azalıyor. Hatta ünlü bir araştırma, günün hangi zaman diliminde olduğunuzun bile olumlu bir sonuç elde etme şansınızı etkilediğini belirtiyor.

Öğle yemeğinden hemen önce duruşmaya çıkmanızın zararınıza olabileceğine dair kanıtlar var. Araştırmaya dahil edilen yargıçlar, moladan döndükten hemen sonra kefalet talebini kabule daha yatkın olurken; yemek molasına yaklaştıkça kefaletten uzaklaşmışlar.

Başka bir araştırma da bir yargıcın arka arkaya çok sayıda benzer yargıda bulunmaktan kaçındığını gösteriyor. Örneğin, sizden önceki dört duruşmada kefalet talebi kabul edildiyse sizinkinin reddedilme olasılığı ne yazık ki fena halde yükseliyor.

GENETİK BAĞIŞ

149 sterlin gibi cüzi bir fiyata tükürük örneğinizi gönderdiğiniz genom ve biyoteknoloji şirketi 23andMe, karşılığında size şu gibi soruların yanıtlandığı bir genetik özellikleri raporu sunuyor:

Göğüs kanserine yatkın mısınız?

Alzheimer’e genetik eğiliminiz var mı?

Ne tür bir kulak kirine sahipsiniz?

Sizde tek kaşlılık genleri bulunuyor mu?

Ya da güneşe baktığınızda hapşırmanıza neden olan gen?

Şirketse bu esnada, zekice bir şekilde, şimdilerde örnek sayısı milyonlara ulaşan, devasa boyutta bir genetik veritabanı oluşturmakla meşgul. İnternet devlerinin yaptığı gibi; ama tabii oradaki takasta genlerimiz yerine ortaya, sahip olduğumuz en kişisel bilgileri sürüyoruz. Sonuç, hepimizin fayda sağlayacağı bir veritabanı. İnsan genomunu daha iyi anlayabilmemiz adına bunun son derece değerli bir varlık olduğu kesin. Dünyanın dört bir yanındaki akademisyenler, ilaç şirketleri ve kâr amacı gütmeyen kurumlar -algoritma yardımı olup olmaksızın -verilerindeki kalıpları bulup inceleyebilmek için 23andMe ile ortak olmaya can atıyor ve amaçları da hepimizi etkileyen büyük sorulara yanıt vermek:

Farklı hastalıkların kalıtımsal nedenleri nedir?

Belirli hastalıkları iyilestirebilmek adına ilaçlar üretilebilir mi?

Parkinson hastalığının daha iyi bir tedavi yöntemi var mı?

Veri kümesinin manevi değeri yanında bir de maddi değeri var kuşkusuz. Yapılan araştırma, topluma devasa bir yarar sunsa da 23andMe bunu yalnızca iyilik olsun diye gerçekleştirmiyor. İzin verdiğiniz takdirde (ki müşterilerinin%80'i veriyor) genetik verinizin anonim halini güzel bir kâr karşılığında bu mevzubahis araştırma ortaklarına satıyor. Kazanılan para şirketin yan kazancı değil; iş planları zaten bu. Bir 23andMe yönetim kurulu üyesi Fast Company'ye şunları söyledi: "Uzun vadede amacımız test satışından para kazanmak değil, temel seviyede veri toplamak için bu testleri yapmaya mecburuz." Günün birinde siz de ticari genetik raporunuzu çıkarttırmak isterseniz şunu unutmayın: Burada siz ürünü kullanan değil, ürünün bizzat kendisisiniz.

Uyarmadı demeyin, bilgilerin anonim hale getirilmesi de biraz şaibeli. 2005 yılında, tamamen anonim bir sperm donöründen olma genç bir adam, tükürüp, örneğini analize göndererek kendi DNA kodunda yer alan ipuçlarını birleştirdi ve öz babasının kimliğine ulaşmayı basardı. Ayrıca 2013'te bir grup akademisyenin yaptığı ünlü bir çalışma, yalnızca bir ev bilgisayarı ve birkaç zekice internet araştırmasıyla milyonlarca insanın kimliğinin, potansiyel anlamda genlerinden ortaya çıkarılabileceğini kanıtladı.

DNA'nızın herhangi bir veri kümesinde yer almasını istememeniz için başka bir neden daha var. İnsanları genetik ayrımcılığın en kötüsüne karşı koruyan yasaların varlığına karşın-yani Beethoven ya da Stephen Hawking'in yetenekleri yerine genetik özelliklerine göre yargılanacağı bir geleceğe doğru ilerlediğimiz pek söylenemez- bu yasalar hayat sigortasında geçerli değil.

Kimse sizi, istenmediğiniz bir DNA testini yaptırmaya zorlayamaz ama ABD'de sigortacılar Parkinson, Alzheimer ya da göğüs kanseri olma riskinizin araştırıldığı bir test yaptırıp yaptırmadığınızı sorabilir ve bu testlerin yanıtı hoşlarına gitmediği takdirde hayat sigortası isteğinizi geri çevirebilir. Birleşik Krallık'ta da sigortacıların, sigorta bedeli 500 bin sterlinden fazlaysa-Huntington hastalığını belirleyen genetik test sonuçlarını hesaba katmaya izni vardır. Yalan söyleyebilir, test yaptırmadığınızı iddia edebilirsiniz tabii, ama yalanınız ortaya çıkarsa poliçeniz geçersiz olur.

Bu türden bir ayrımcılığa uğramamanın tek yolu testi hiç yaptırmamaktır. Bazen cehalet gerçekten mutluluktur.

Gerçek şu ki, sağlığımızı anlamada milyonlarca insanın sıralı genomlarından daha değerli bir veri kümesi yok. Ancak kendi adıma yine de yakın zamanda bir gen testi yaptırmayı düşünmüyorum.

Bununla birlikte (toplumumuz sağ olsun) milyonlarca insan, verilerini gönüllü olarak bağışlıyor. Son sayıma göre, 23andMe'nin 2 milyondan fazla genotipi belirlenmiş müşterisi var.

Sonuçta, son sözü pazar söyler: Mahremiyetinizin karşılığında toplumun iyiliğine katkıda bulunma şansı buna değmez belki ama %25 Viking olduğunuzun bulunması kesinlikle değer.

ARABALAR

Fakat ilk DARPA Grand Challenge'ının gözler önüne serdiği üzere, otonom bir araç yapmak göründüğü kadar basit değildir. Saatte 100 km hızla giden kocaman bir metal yığınının kontrolünü algoritmanın tekine verdiğinizde işler bir anda çığırından çıkabilir.

Tümörlü göğüs dokularını ayırt etme konusunda üstün başarı sağlayan yapay sinir ağlarını ele alalım; çevrede olup bitenleri "görme" konusunda sürücüsüz araç teknolojisine son derece uygun olduklarını düşünebilirsiniz. 2004'e gelindiğinde yapay sinir ağları (günümüzün en gelişmiş sürümlerinden biraz daha ilkel bir şekilde olsa da) sürücüsüz araç prototiplerinde at koşturup araçların üzerine monte edilmiş kameralardan gelen görüntülerden anlam çıkarmaya çalışıyordu. Kameradan hatırı sayılır miktarda bilgi elde edilebilir. Bir yapay sinir ağı rengi, dokuyu, hatta -hatlar, kıvrımlar, kenarlar ve açılar gibi-önünde uzanan manzaranın fiziksel özelliklerini anlayabilir. Sorun, tüm bu bilgiyle ne yapacağıdır.

Arabaya şunu söyleyebilirsiniz: "Yalnızca asfalta benzer bir yolda git." Ama yolların tozla kaplandığı çölde bu komut pek işinize yaramaz. Şunu da diyebilirsiniz: “Görselde algıladığın en pürüzsüz yüzeyde git.” Fakat ne yazık ki en pürüzsüz yüzey neredeyse her zaman gökyüzü ya da cam cepheli binalar olarak algılanır. Yolun şeklini somut bir biçimde açıklamayı da düşünebilirsiniz: “Düzgün duran iki kenara sahip bir nesne ara. Kenarlar görselin alt kısmında, birbirinden uzakta yer almalı ve üst kısımda birbirine yaklaşmalı.”

İşte bu gayet mantıklı bir açıklama. Ama ne yazık ki fotoğrafta, bir ağaç da bu şekilde görünür. Takdir edersiniz ki bir aracı ağacın üzerine sürmek pek de akıllıca değildir.

Sorun, kameraların boyut ya da uzaklık duygusu verememesidir.

Bayes Teoreminin tarihteki en ilham verici fikirlerden biri olduğunu söylemek abartı sayılmaz.

Bayes sadece var olan sezgilerimizi doğrulamaya yaramaz. Bir şeye duyduğumuz inancı sayısal bakımdan değerlendirmek zorunda kaldığınızda, genelde ilk sezginin zıttı kararlara vardığınız görülür.

Bilimin her dalında Bayes, gerçekte ne bildiğimizi ayırt edip anlamamıza yardımcı olan güçlü bir araçtır.

Fakat Bayesçi düşünme tarzı asıl zirve noktasına, eşzamanlı olarak birden fazla hipotezi düşünmeye çalıştığınız zaman ulaşır: örneğin bir hastanın belirtilerine dayanarak hastayla ilgili neyin yanlış olduğunu teşhis etmeye çalışırken veya sensör okumalarına bakarak sürücüsüz bir aracın konumunu bulurken. Teoride herhangi bir hastalık, haritadaki herhangi bir nokta işin altında yatan gerçeği gösterebilir. Tek yapmamız gereken kanıtları tartarak hangisinin büyük olasılıkla doğru olduğuna karar vermektir.

Hazır değinmişken sürücüsüz aracın konumunu bulmanın, teoreme ismini veren Britanyalı Presbiteryen rahip ve yetenekli matematikçi Thomas Bayes'in aklını karıştıran probleme çok benzediğini de belirteyim. 1700'lü yılların ortalarında, problemi açıklamak için uydurduğu bir oyuna dair bir deneme kaleme almıştı. Aşağı yukarı şöyle bir şeydi:

Kare bir masaya sırtınız dönük şekilde oturduğunuzu hayal edin. Siz görmeden, masanın üzerine kırmızı bir top fırlatıyorum. Göreviniz topun nereye düştüğünü tahmin etmek. Kolay olmayacak: Elinizde hiçbir bilgi olmadan, topun masanın neresine düştüğünü bilmenizin olanağı yok.

Bu nedenle, tahmininize yardımcı olmak üzere aynı masanın üzerine farklı renkte başka bir top daha fırlatıyorum. İşiniz hâlâ ilk atılan kırmızı topun nereye düştüğünü bulmak, ama bu defa, atılan ikinci topun masada diğerine göre nerede bulunduğunu söylüyorum: Kırmızı topun önünde mi, arkasında mı, sağında ya da solunda mı olduğunu. Siz de tahmininizi buna göre güncelliyorsunuz.

Sonra tekrar ediyoruz. Ben masaya üçüncü, dördüncü, beşinci topları fırlatıyorum ve her seferinde topun, ilk atılan kırmızı topun neresine düştüğünü söylüyorum; siz de kırmızı topun yerini tahmin etmeye çalışıyorsunuz.

Masaya fırlattığım top sayısı ve size verdiğim bilgi arttıkça, kırmızı topun konumu zihninizde daha belirgin hale geliyor. Topun tam olarak hangi noktada bulunduğunu tam olarak hiç bilemeyeceksiniz belki, ama konumuna dair inancınız güncellenip duracak ve sonunda güven duyduğunuz bir yanıt verebileceksiniz,

Bir bakıma, sürücüsüz arabanın gerçek konumu kırmızı topunkini andırır. Burada masaya sırtı dönük oturan biri yerine, arabanın belirli bir zamanda tam olarak nerede bulunduğunu ölçmeye çalışan bir algoritma vardır ve masaya atılan diğer topların yerini de veri kaynakları alır: GPS, süredurum ölçümleri vs. Bunların hiçbiri algoritmaya arabanın nerede olduğunu söylemese de her biri, algoritmanın değerlendirmesini güncellemede kullanacağı bir parça bilgi sağlar. Olasılıklı çıkarım olarak bilinen bu yöntem, verileri (ve Bayes'i) kullanarak nesnenin gerçek konumunu ortaya çıkarır. Doğru şekilde bir araya getirildiğinde, bir çeşit makine öğrenmesi algoritmasıdır aslında.

Milenyum gelip çattığında, mühendisler güdümlü füzeler, uzay roketleri ve uçaklarda konum sorununu nasıl ele alacaklarını bilecek kadar deneyim kazanmışlardı. Sürücüsüz bir arabanın "Neredeyim?" sorusu hâlâ önemini korusa da biraz Bayesçi düşünmeyle şu ya da bu şekilde yanıtlanabilecek durumdaydı.

2004 Grand Challenge'ındaki robot mezarlığı ile hayranlık verici teknolojik bir zafere sahne olan -ve beş farklı aracın herhangi bir insan müdahalesi olmadan 150 km'den fazla yarışmayı başardığı- 2005 yarışı arasında atılan büyük adımların çoğu Bayes sayesindeydi. "Etrafımda ne var?" ve "Ne yapmam gerekiyor?" gibi, arabanın yanıtlaması gereken diğer soruları, Bayesçi fikirleri temel alan algoritmalar çözmeye yardımcı olmuştu.

Google'ın otonom aracı Waymo milyonlarca kilometrelik sürüş gerçekleştirmedi mi? Waymo'nun tam otonom (ya da en azından tam otonoma yakın) arabaları şu anda Arizona Phoenix sokaklarını arşınlamıyor mu?

Eh, evet. Bu doğru. Ama yolun her kilometresi aynı değildir. Bazı kısımlarda sürüş kolaydır, aklınız başka yerdeyken bile bunu becerebilirsiniz. Bazı yerlerse daha zorludur. Bu satırları yazdığım sırada, Waymo arabalarının her yola çıkma izni yok: Önceden tanımlanmış, coğrafi sınırları belli, ufak alanlarda dolanabiliyorlar ancak. Daimler ve Ford'un 2020 ve 2021'de trafiğe çıkacağını duyurduğu sürücüsüz arabalar da öyle: Belirli bir bölgeyle sınırlandırılmış ve rotası önceden belirlenmiş araçlar olacak. Bu da otonomi sorununu büyük ölçüde basitleştiren bir uygulama.

İnandırıldığımız görüş aslında ışık hilesi gibi. Bize lüks özel şoförlük hizmeti gibi sunulan, ama yakından bakınca aslında dolmuştan hallice olduğu anlaşılan bir serap.

Hâlâ ikna olmadıysanız bu konudaki son sözü Amerika'nın en büyük otomotiv dergilerinden Car and Driver’'a bırakıyorum

“Hiçbir araba şirketinin, fütüristik, sürücüsüz araçlarla dolu, kazadan arındırılmış sokaklı ütopyanın yakın zamanda, hatta onlarca yıl sonrasına dek hayata geçmesini gerçekten beklediği yok. Buna karşın Wall Street tarafından ciddiye alınmayı ve gittikçe araç sürmekten uzaklaşan halkın beklentilerini artırmayı istiyorlar. Ve bu esnada da son teknoloji sürücü destek teknolojisine sahip birçok araç satmayı umuyorlar.”

Peki ya sürücü destek teknolojisine ne demeli? Sonuçta sürücüsüz arabalar ya hep ya hiçlik bir mesele değil.

Sürücüsüzlük teknolojisi altı farklı seviyeye ayrılır:

Hiçbir otonominin bulunmadığı 0. seviyeden tam otonom fantezisi olan 5. seviyeye dek uzanır. Bu ikisi arasında yer alan seyir kontrolü (2. seviye) ve coğrafi sınırlandırmalı otonom araçları da (4. seviye) içeren aradaki seviyeler ise; 1. seviye: ayak kullanılmayan; 2. seviye: el kullanılmayan; 3. seviye: göz kullanılmayan; 4. seviye: beyin kullanılmayan olarak adlandırılır.

Yani belki 5. seviye henüz ufukta belirmiş değil ve 4.seviye de tam istenildiği gibi çıkmadı ama oraya varana dek pek çok yerde otonomi sağlanabilir.

OTOMASYONUN İRONİLERİ

1983’te, psikolog Lisanne Bainbridge otomatik sistemlere yoğun şekilde sırt dayamanın gizli tehlikelerine dair ufuk açıcı bir deneme kaleme almıştı. “İnsan performansını artırmak için bir makine yaparsınız” diyordu, “o da gider-ironik biçimde-insan becerisini köreltir.”

Şimdiye dek, buna bir şekilde şahit olduk. İnsanların artık telefon numaralarını hatırlayamaması, çoğumuzun kendi el yazımızı dahi okumakta zorlanması ve GPS olmadan hiçbir yere adım atamamamız hep bunun sonucu. Bizim yerimize her şeyi yapacak bir teknoloji varken, becerilerimizi kullanmaya pek fırsat bulamıyoruz.

Sürücüsüz araçlar konusunda da benzer endişeler mevcut; üstelik bu el yazısını okuyamamaktan daha önemli sorunlara neden olabilir. Tam otonomi teknolojisi gelişene dek, arabanın beklenmedik zamanlarda kontrolü insan sürücüye bırakması gerekecek. Öyle durumda ne yapılması gerektiğini hatırlayabilecek miyiz? Peki ya geleceğin genç sürücüleri gerekli sürüş becerini edinme şansı bulabilecek mi?

Dikkatini yola vermeyen bir sürücünün, etrafında olan bitenin farkına varıp ne yapacağına karar vermek için çok az zamanı vardır. Kendi kendini süren bir arabada otururken çalan alarmı duyduğunuzu ve gözlerinizi okuduğunuz kitaptan ayırıp yola bakınca önünüzden giden kamyonun yükünü önünüze saçtığını gördüğünüzü hayal edin. Bir an içinde, etrafınıza dair tüm verileri değerlendirmeniz gerekir: sol şeritteki motosikleti, önde sertçe fren yapan minibüsü, sağınızdaki kör noktada kalan arabayı. Yola en hâkim olmanız gereken anda sudan çıkmış balık gibi olacaksınız; buna deneyim eksikliğini de eklediğinizde, en üst düzeyde beceri gerektiren durumlarla başa çıkabilmek için fena halde yetersiz donanıma sahip olduğunuzu göreceksiniz.

Bu, sürücüsüz araba simülasyonlarıyla yapılan deneylerde de ortaya çıkan bir gerçektir. Araba kendini sürerken, insanların telefonda oyun oynayıp kitap okumalarına veya çalmalarına izin veren bir araştırma, alarm durumunda sürücünün aracın kontrolünü tam olarak sağlamasının 40 saniyeyi bulduğunu gösterdi.

447 sayılı Air France uçuşunda tam olarak meydana gelen buydu. Normalde uçağı kolayca kurtarabilmesi gereken Kaptan Dubois'nın tehlikenin ne olduğunu anlayıp sorunu giderecek basit bir çözüm bulması bir dakikadan fazla sürmüştü.

İroniktir ama, sürücüsüz araç teknolojisi ne kadar iyi olursa bu problemler o kadar kötüleşir.

SUÇ

Hırsızların, seri katil ve tecavüzcülerin ortak bir noktası vardır: Onlar da alıştıkları yerlerde suç işlemeyi tercih ederler.

Bir hırsızın -mesela işe ya da okula giderken- düzenli olarak geçtiği bir sokakta yaşıyorsanız, soyulma olasılığınızın daha yüksek olduğunu artık biliyoruz.

Ayrıca azılı hırsızların hoşlandığı türdeki sokakların ne gibi özelliklere sahip olduğunu da biliyoruz. Evet, nerede yasadığınız veya sokağınızın ne kadar işlek olduğu gibi zamanla değişmeyen ve evinizin üzerine adeta "soyulabilir" bayrağı diken etkenler vardır.

Ama evinizi alelacele satıp mahalle devriyesinin kimseye göz açtırmadığı sessiz bir çıkmaza taşınmadan önce suç noktalarının sabit kalmadığını da bilmelisiniz. Evinizi hırsızlık açısından çekici kılan ikinci öğe çok daha önemlidir. O da evinizin bulunduğu mahalleyle ilgilidir; oturduğunuz yerin “teşvik etme” düzeyinden bahsediyorum.

Kısa süre içinde evinize iki defa hırsız girdiyse bu teşvik etkisinden nasibinizi almışsınız demektir. Polisin ilk hırsızlık olayından sonra size söyleyeceği üzere, suçlular genelde aynı yeri hedef alırlar ve bu da hırsızlığa uğramanızın ardından, nerede yaşarsanız yaşayın birkaç gün içinde yeniden soyulma riskinizin yüksek olduğu anlamına gelir. Hatta yeniden hedef alınmanız öncekine oranla on iki kat artmıştır.

Hırsızların evinizi yeniden hedef almasının birkaç nedeni vardır. Evinizin düzenini öğrenmişlerdir; değerli eşyalarınızın yerini (televizyon, bilgisayar gibi eşyalar çalındığında çabucak yerine yenileri alınır), evinizdeki kilitleri, nasıl kaçabileceklerini de. Ya da belki ilk seferde çalmayı başaramadıkları, para eden bir eşyanız vardır. Araştırmacılar sizden sonra komşularınızın soyulma olasılığının da arttığını buldu!

Yerel sakinleri, mülklerinin risk altında olduğu konusunda uyarabilir; kapı kilitlerini sağlamlaştırmayı önerebilir ya da hırsız alarmları veya dışarıdan bakanlara evde birileri olduğunu düşündürecek şekilde ışık düğmelerine zamanlayıcı kurabilirsiniz.

2012'de Manchester'da gerçekleştirilen ve hırsızlık sayısının dörtte bir oranında azaltmayı başaran çalışmada aynen böyle yapılmıştı. Gerçi küçük bir dezavantaj yok değildi: Araştırmacılar, "hedef zorlaştırma" olarak adlandırılan bu yöntemin önlediği hırsızlık başına yaklaşık 3.925 sterline mal olduğunu hesaplamıştı. Bunu yılda 15 binden fazla hırsızlık vakasıyla uğraşan Los Angeles Polis Departmanı'na satmayı deneyin.

Güvenliğimiz çoğu zaman yüzleri ayırt edip tanımlama becerimize bağlıdır. Ancak bu görevi insanların eline bırakmak riskli olabilir. Örneğin, pasaport memurlarını ele alalım. Bir havaalanı güvenlik ortamını taklit etmek üzere yapılan yakın tarihli bir çalışmada, bu profesyonel yüz tanıyıcıları, yanlış kimlik taşıyan bir kişiyi zamanın %14’ünde-şaşırtıcı bir şekilde belirleyemedi ve resmiyle mükemmel biçimde eşleşen kişilerin de %6'sını hatalı şekilde reddetti. Sizi bilmem ama ben, Heathrow'dan her gün geçen sayısını düşününce bu oranları epey tedirgin edici buluyorum.

Yüz tanıma algoritmalarının bu konuda insanlardan kesinlikle daha iyisini yapabildiğini görüyoruz. Ama iş, hatanın çok ciddi sorunlara yol açabileceği suçlu avlamaya geldiğinde, onlar da önemli bir soruyu gündeme taşıyor: Bir insanı başkasıyla karıştırmak ne derece kolaydır?

2015 yılında yapılan bir araştırma, ikiziniz kadar size benzeyen yabancı birinin (bir banka soyguncusu olup olmadığına bakılmaksızın) var olma şansının son derece düşük olduğunu belirtiyor.

Dört bin kişiye ait her fotoğraftan titiz bir çalışmayla 8 ayrı yüz ölçümü alan Adelaide Üniversitesi'nden Teghan Lucas, bunların aralarında tek bir eşleşmeye bile rastlamayınca kişinin tıpatıp aynı yüz ölçülerine sahip olma şansının trilyonda birden bile az olduğu sonucuna vardı.

Yüzlerimiz kim olduğumuzla son derece bağıntılıymış gibi gelse de insanların tümünü kapsayan çeşitlilik bilinmeden, suçluları yüzlerinden tanımlamak henüz bilimsel bir yaklaşım olarak kabul edilmiyor

Milyonda Bir mi? Algoritmalar iki ana yaklaşımdan birini kullanarak çalışır. İlk tur, bir dizi 2D görüntüyü birleştirerek veya sizi özel bir kızılötesi kamera yardımıyla tarayarak yüzünüzün 3D bir modelini oluşturur. Bu, Apple'ın iPhone'larında kullandığı Face ID sistemi tarafından benimsenen yöntemdir. Bu algoritmalar, farklı yüz ifadeleri ve yaşlanma gibi sorunların üstesinden gelmek için, göz yuvanızın eğrisi veya burun kemeriniz gibi yüzünüzün sert doku ve kemik bulunan kısımlarına odaklanır.

Apple, herhangi bir kişinin telefonunuzun ekran kilidini Face ID ile açabilme şansının milyonda bir olduğunu iddia etse de algoritma kusursuz değil. İkiziniz, kardeşleriniz' ve çocuklarınız telefonunuzu kandırabilir.

Tanıma becerilerini sınamak adına FaceNet'ten, ünlülere ait beş bin adet yüz görüntüsünü tanımlaması istendi. Daha önce bunu yapan insan tanıyıcılar %97,5 doğru tanımlama yaparak son derece başarılı olmuştu; katılımcılar ünlülerin yüzüne aşina olduğundan, aslında bu pek şaşırtıcı bir sonuç değildi. Fakat FaceNet daha da iyi bir performans gösterdi ve %99,6'lık olağanüstü bir skor elde etti.

Bu makineler insanüstü tanıma becerilerinde ustalaşmış gibi görünüyor. Sonuç son derece harika; suçluları tanımlamak için kullanılan algoritmaları haklı çıkaracak kadar iyi olduğu bile söylenebilir. Küçük bir hileyi göz ardı edecek olursak tabii. Beş bin adet yüz, aslına bakılırsa algoritmayı sınamak için acınası derecede az bir rakam. Çünkü suçla mücadelede kullanılacaksa binler arasından değil, milyonlar arasından tek bir yüzü bulup çıkarması istenecek.

İşte bu yüzden Birleşik Krallık polisinin elinde, suç işleme şüphesiyle yapılan bireysel tutuklamalardaki fotoğrafların bir araya getirildiği 19 milyonluk bir veritabanı mevcut. Bu arada FBI, ABD'li yetişkinlerin yarısının fotoğraflarından oluşan 411 milyon fotoğraflık bir veritabanına sahip.

Kimlik kartı veritabanının milyarlarca yüze kolay erişim sağladığı Çin'deyse, yetkililer yüz tanıma sistemlerine çoktan ağır bir yatırım yaptı bile. Aranan suçlulardan trafik kurallarını ihlal eden yayalara dek her şeyi saptayabilen kameralar ülkenin her köşesindeki sokaklara, metrolara ve havalimanlarına yerleştirilmiş durumda. (Hatta bir vatandaşın, sokağa çöp atmak gibi fiziksel dünyadaki küçük kabahatlerinin bile, kişisel vatandaşlık notu sistemi olan Susam Kredisi puanını etkilemesi mümkün olabilir.)

Eskiden mağazaların güvenlik görevlilerinde hırsızların boy boy fotoğrafı olurdu; şimdiyse algoritmalar, mağazanın eşiğinden geçen herkesin yüzünü, bilinen bir hırsız veritabanıyla karşılaştırabilir.

Yüzünüz tanınmış bir suçlununkiyle uyuştuğunda, iş başındaki görevlilerin akıllı telefonlarına bir uyarı gönderilir ve onlar da sizi reyonda kıskıvrak yakalar.

SANAT

Zirveye giden yol her zaman değişebilse de araştırmacılar, kullanıcıların genelde, diğer kullanıcılar tarafından beğenildiğini gördükleri müzik parçalarını indirmeye eğilimli olduğunu buldu. Kendini şans eseri erkenden listenin üst kısımlarında bulan ortalama bir şarkının popülaritesi hızla artıyordu. İndirme sayısının fazlalığı, daha çok indirmeyi beraberinde getiriyordu. Gözlemlenen popülerlik gerçek popülerlik haline geliyordu; öyle ki nihai başarı, zaman içinde büyümüş bir rastlantısallıktan ibaretti.

Bu sonuçların bir nedeni vardı. Psikologların “toplumsal kanıt” adını verdiği bir fenomendir bu. Bilgi eksikliği nedeniyle kendi adımıza karar veremediğimiz durumlarda, etrafımızdakilerin davranışlarını taklit etme alışkanlığına sahibiz. Tiyatroların, seyircilerin arasına doğru zamanda tezahüratta bulunacak gizli alkışçılar yerleştirmesinin sebebi budur. Diğerlerinin alkış tutturduğunu duyar duymaz biz de büyük olasılıkla alkışa katılırız.

İş müzik seçimine geldiğinde, illa diğerleriyle aynı şarkıları dinleyeceğiz diye bir kural yoktur ama bir şarkının popüler olması, hayal kırıklığına karşı hızlı bir güvence sağlar. “İnsanların karşısında çok sayıda seçenek vardı” demişti Salganik, LiveScience'a. “Hepsini dinleyemeyeceğinize göre en doğal kestirme yol, diğer insanların dinlediğini dinlemektir.”

Neyin popüler olduğunu görmek için kullandığımız platformlar arttıkça -Amazon sıralamaları, Rotten Tomatoes skorları, Spotify listeleri- toplumsal kanıtın etkisi o kadar yükseliyor. Maruz kaldığımız milyonlarca seçeneğe, hepsi de ilginizi çekmek için çabalayan pazarlama, ünlülük, medya balonu ve eleştirel beğeni de eklenince bu etki iyice tırmanıyor.

Siz bir müzik şirketi, bir film yapımcısı veya bir yayıncıysanız milyon dolarlık soru şudur: Başarı kazanması garanti olanı gözünden tanıyabilir misiniz? Peki ya bir algoritma hit olacakları bulup çıkarabilir mi?

Kaliteyi numaralandırmak adına popülariteyi de öngörmek zordur. Neyi sevdiğimiz ile neden sevdiğimizi birbirinden ayırmanın kolay bir yolu yoktur. Bu da yaratıcılık aleminde algoritmalar açısından sorun teşkil eder. Çünkü neyin “iyi” olduğuna dair popülariteyi kullanamıyorsanız kaliteyi nasıl ölçebilirsiniz?

İşte burası önemli: Sanat konusunda algoritmaların herhangi bir otonomiye sahip olmasını istiyorsak-ister yeni işler yaratması ister bizim yarattığımız sanata anlamlı yorumlar katması açısından- devam etmek adına kaliteyi bir şekilde ölçebilmemiz gerek. Algoritmayı doğru yönlendirecek objektif bir yol, dayanak olarak kullanılabilecek bir "temel doğru" olması şart. "Bu hücre kümesi kanserli" ya da "zanlı suç işlemeye devam etti" türünde bir mutabakatın sanat versiyonu gibi. “İyi” sözcüğünün anlamını tam olarak açıklayamıyorsak bir şarkının “İyi” olduğunu söyleyebilecek bir algoritma da yapamayız.

Ne yazık ki nesnel bir kalite ölçüsü bulmaya çalışırken, Platon'a kadar uzanan çok çekişmeli bir felsefi soruyla karşılaşıyoruz. İki bin yıldan fazladır tartışma konusu olan bir soru hem de. Sanatın estetik değerini nasıl değerlendirirsiniz?

Bazı filozoflara göre -Gottfried Leibniz gibi- güzel olduğu konusunda hepimizin hemfikir olduğu bazı nesneler vardır; örneğin, Michelangelo'nun Davud'u ya da Mozart'ın “Lacrimosa” sı. O halde, bir sanat eserini tarafsız olarak diğerinden daha iyi yapan, tanımlanabilir ve ölçülebilir değeri olan bir güzellik özü de olmalıdır.

Ancak diğer yandan, herkesin hemfikir olmasına nadiren rastlanır. David Hume gibi filozoflar, güzelliğin bakanın gözünde olduğunu düşünür. Mesela kimilerine güçlü bir estetik deneyimi sunan, kimileri içinse sanatsal açıdan bir çorba konservesinden farkı olmayan Andy Warhol'un çalışmalarını düşünün.

Emmanuel Kant'ın aralarında olduğu başka filozlar da gerçeğin bu ikisinin arasında yattığını söyler. Güzellik yargılarımız ne tam anlamıyla sübjektif ne de tamamıyla objektiftir. Ama aynı anda sezgisel, duygusal ve zihinseldir ve can alıcı bir şekilde, gözlemcinin zihinsel durumuna göre zaman içinde de değişebilir.

Bu iddiayı doğrulayacak kesin kanıtlar mevcut. Banksy hayranları, sanatçının 2013 yılında New York Central Park’ta kimliğini belli etmeden bir tezgâh açıp özgün siyah beyaz sprey boyalı tablolarını, tanesi 60 dolardan sattığını anımsayacaktır. Tezgâhta başka bir dolu turistik ıvır zıvır olduğundan, yoldan gelip geçenlere bu fiyat fazla görünmüş olabilir. Gerçekten biri onlardan satın almaya karar verene dek aradan saatler geçmişti. Toplamda günün hasılatı 420 dolardı. Ancak bir yıl sonra, Londra'daki bir müzayede salonunda, başka bir sanatsever, aynı çalışma serisinden tek tablonun 68 bin sterlin ödenebilecek bir estetik değerde olduğuna karar verecekti.

Banksy'nin herkes tarafından beğenildiğini söylemek mümkün değil elbette. (Black Mirror'ın yaratıcısı Charlie Brooker bir defasında onu, "çalışmaları aptalların aklını alan üçkağıtçının teki" olarak tanımlamıştı) Bu nedenle bu öykünün Banksy'nin çalışmalarının özünde kalitesiz olduğuna dair bir kanıt oluşturduğunu da iddia edebilirsiniz. Çalışmalarının astronomik rakamlara satın alınmasının nedeni yalnızca popülerlik balonudur (ve toplumsal kanıttır) denebilir. Ancak bizim kaypak estetik yargılarımız, inkâr edilemez derecede yüksek kaliteli sanat söz konusu olduğunda bile kendini gösterir.

Bu konudaki en sevdiğim örnek, 2007 yılında Washington Post tarafından yapılan deney. Gazete, uluslararası üne sahip keman virtüözü Joshua Bell'den, senfoni salonlarındaki kapalı gişe konserlerine bir tane daha eklemesini rica etti. 3,5 milyon dolarlık Stradivarius kemanını kuşanan Bell, sabah yoğunluğu sırasında Washington DC'deki bir metro istasyonundaki bir merdivenin tepesine konuşlandı; bahşiş toplamak için önüne ters bir şapka koydu ve 43 dakika boyunca kemanını konuşturdu. Washington Post'un kendi sözleriyle, "dünyanın en iyi klasik müzisyenlerinden biri, şimdiye kadar yapılmış en değerli kemanlardan biriyle gelmiş geçmiş en zarif müzik parçalarından bazılarını çalmıştı." Sonuç mu? Yedi kişi bir süre sonra dinlemeyi bırakmıştı.

Binden fazla kişi yanından geçip gitmişti. Performansının sonunda Bell'in şapkasında toplanan bahşiş ise 32,17 dolardan ibaretti.

Neyi "iyi" bulduğumuz da değişkendir. Bazı klasik müzik türlerine duyulan ilgi, aradan geçen zamana karşın fark edilir biçimde canlı kalmıştır, oysa diğer sanat türleri için aynısını söylemek mümkün değildir.

Bir sanat eserini diğerinden daha iyi kılacak objektif bir ölçüt olsa bile, çevre ve koşullar sanatın estetik değerlendirmesinde bir rol oynadığı sürece, her yerde aynı sonucu veren, somut bir ölçü oluşturmak mümkün değildir. Hangi istatistiksel teknikleri ya da yapay zekâ hilesi veya Makine öğrenmesi algoritmasını kullanırsanız kullanın, sanatta mükemmelliğin özünü sayılarla anlamaya çalışmak, elinizle duman yakalamak için çabalamaya benzer.

Oysa bir algoritmanın işini yapabilmesi için bir şeye ihtiyacı vardır. Bu nedenle, popülerlik ve içsel kaliteyi çekip aldığınızda, elinizde ölçebileceğiniz tek şey, önceki örneklere olan benzerliğin sayısal ifadesi olabilir.

Benzerliğin ölçümüyle de çok iş başarılabilir. İş, Netflix ve Spotify'da bulunanlar gibi bir öneri motoru oluşturmaksa benzerlik muhtemelen ideal bir ölçü olabilir.

Netflix ya da Spotify hiçbir şekilde size mükemmel şarkı ya da filmi sunmaya çalışmaz. Kusursuzlukla neredeyse hiç ilgilenmezler hatta Spotify Keşfet dünyada sizin zevk ve modunuza tam ve kusursuz biçimde uyacak o biricik grubu bulup önünüze koymayı vaat etmez. Tavsiye algoritmaları, sizi hayal kırıklığına uğratmayacak kadar iyi olan şarkı ve filmleri önerir.

İyi Sanatçılar Ödünç Alır; Büyük Sanatçılar Çalar- Pablo Picasso

Ekim 1997'de, bir seyirci kitlesi alışılmadık bir konsere tanık olmak üzere Oregon Üniversitesine gelmişti. Önlerindeki sahnede, bir piyano tek başına duruyordu. Sonra piyanist Winifred Kerner tuşların başına geçti ve üç kısa parça çalmaya koyuldu.

Bunlardan biri, barok müziğin üstadı Johann Sebastian Bach tarafından bestelenmiş, pek bilinmeyen bir piyano kompozisyonuydu. İkincisi, üniversitenin müzik profesörlerinden Steve Larson tarafından Bach tarzında bestelenen bir parçaydı. Üçüncüsü ise, Bach'ın stilini taklit etmek üzere yapılmış bir algoritmanın eseriydi.

Üç parçayı da dinleyen seyircilerden, hangi eserin kime ait olduğunu tahmin etmeleri istendi. Çoğunluk bestelediği parçanın algoritma elinden çıktığını düşündüğü için Steve Larson dehşete düşmüş olmalı. Aynı şekilde, seyirciler de özgün Bach eseri olduğunu sandıkları parçanın makine tarafından yapıldığını duyunca şok geçirmişti.

Larson hiç hoşnut kalmamıştı. Deneyin hemen ardından New York Times ile yaptığı söyleşide, "Ben Bach'ın müziğine derin ve sonsuz bir hayranlık duyuyorum. İnsanların bir bilgisayar programı tarafından bu şekilde kandırılabildiğini görmek büyük bir hayal kırıklığı oldu" demişti.

Bilgisayar bestesini yaratan bu harikulade algoritmanın ardındaki isim olan David Cope, “Müzikal Zekâ Denemeleri” (EMI) adı altında algoritmanın yazdığı parçayı dinledikten sonra Hofstadter, işlerin o kadar basit olmayabileceğini kabul edecekti: "EMI beni afallattı ve endişelendirdi" diye itiraf edecekti Oregon Üniversitesi deneyini izleyen günlerde. “Bu noktada içime tek su serpen, EMI'ın kendi tarzını yaratmadığını bilmek. Tek yapabildiği eski bestecileri taklit etmekten ibaret. Ama yine de huzursuz olmadan edemiyorum. Beni asıl dehşete düşüren [belki de] müziği gözümde fazla büyüttüğümün farkına varmak oldu.”

Peki o zaman son karar nedir? Estetik mükemmellik, yalnızca insanın eseri mi olabilir? Yoksa bir algoritma sanat üretebilir mi? Peki ya seyircilerin EMI'ın müziğini büyük bir üstadınkinden ayırt edememesi, bu makinenin gerçek bir yaratıcılık örneği sergilemiş olduğu anlamına mı gelir?

David Cope sağ olsun bana isleyişi açık yüreklilikle anlattı. Şöyle ki…

Algoritmanın oluşturulmasındaki ilk adım, Bach'ın müziğini bir makine tarafından anlaşılabilecek bir şeye çevirmekti: "Tek bir notaya dair beş bilgiyi veritabanına yerleştirmek zorundasınız: süresini, değerini, yüksekliğini, akordunu ve hangi enstrüman tarafından çalındığını." Bach'ın seçkisindeki her nota için, Cope bu beş sayıyı elle tek tek bilgisayara girmek zorunda kalmış. 371'i yalnızca ilahi olmak üzere, Bach'ın yazdığı çok sayıda armoni, on binlerce notanın her biri için beş farklı sayısal değer sisteme girilmiş. Cope'un bu anlamda muazzam bir çaba göstermesi gerekmiş: "Aylar boyunca her gün tek yaptığım rakam yazıp durmak oldu. Neyse ki saplantı benim göbek adımdır.”

Bu noktadan hareketle Cope'un analizi. Bach'ın müziğindeki her ritmi alıp sonrasında ne olduğunu inceledi. Bir Bach ilahisinde çalınan her notanın ardından gelen notanın kaydı tutuldu. Her şey bir tür sözlük biçiminde toparlandı; algoritmanın tek bir akoru araştırabileceği ve Bach'ın kaleminin müziği götürdüğü onca farklı yerin kapsamlı bir listesini bulabileceği bir tür veri bankasıydı bu.

Bu bakımdan EMI, akıllı telefonunuzda rastlayabileceğiniz türden akıllı metin algoritmalarıyla benzerlikler gösterir. Geçmişte yazdığınız cümleleri temel alan telefonunuz, muhtemelen ileride yazacaklarınıza dair bir sözlük oluşturur ve siz yazarken bunları öneri olarak size sunar.

Son adım, makineyi kendi başına bırakmaktı. Cope, ilk akoru verip sistemi başlatır ve algoritmaya da sonrasında ne yerleştireceğine karar vermek adına listeden rastgele yeni bir akor seçmesi için sözlüğe danışmasını bildirir. Algoritma, her defasında sonraki notayı seçmek için sözlüğe danışarak bu işlemi tekrarlar. Sonuçta, Bach'ın elinden çıkmış gibi tınlayan tamamen özgün bir kompozisyon oluşur.

Belki de bu kompozisyon gerçekten Bach'ın elinden çıkmıştır. En azından Cope'un görüşü bu yönde. "Sonuçta buradaki akorların hepsini Bach yarattı. Bu aslında parmesan peynirini rendeledikten sonra yeniden bir araya getirmeye benziyor. Oluşan parça yine parmesan peyniri olur neticede."

İnsan yaratıcılığının çoğunun- “beste yapan” algoritmalarda olduğu gibi- zaten var olan fikirlerin yeni bir düzenlemesi olduğu konusunda haksız sayılmaz. Mark Twain’in dediği gibi: “Yeni fikir diye bir şey yoktur. Olması da imkansızdır. Tek yaptığımız, bir ton eski fikri alıp onları bir çeşit zihinsel kaleydoskopa yerleştirmektir. Onları şöyle bir sarsıp sonsuza dek yeni kombinasyonlar elde edebiliriz; ama sonuçta, hepsi yıllardan beri kullanılan şu bildik cam parçalarıdır aslında.”

SONUÇ

Yine de algoritmalardaki kusurlara dikkat çekmek, hedeflediğimiz mükemmel bir alternatifin var olduğunun sanılmasına neden olabilir. Uzun uzun düşünmeme karşın, kusursuz bir algoritmaya dair tek örnek bulmakta bile zorlandım. Yüzeyde iyi görünenler bile -uçaklardaki otomatik pilot ya da kanser tanısı koyan yapay sinir ağları- derinlerde sorunludur. Otomatik pilot, otomasyon altında eğitim almış olanları, direksiyon veya kumanda çubuğu ardına geçtiklerinde ciddi şekilde zora sokabilir.

Nereye bakarsanız bakın, hangi alanda inceleme yaparsanız yapın araştırdığınız sistemin derinine indiğinizde, illa bir önyargı olduğunu göreceksiniz.

Öyleyse, bir an için düşünün: Kusursuzluğun var olmadığını kabul edersek ne olur? Algoritmalar hata yapacak. Algoritmalar adil olmayacak. Bu durum, hiçbir şekilde onları daha doğru ve daha az önyargılı hale getirme mücadelemize engel olmamalı. Hem belki de algoritmaların en az insanlar kadar kusurlu olabileceğini kabul etmemiz, onları karşı konamaz birer otorite makam olarak görme hatasına düşmemizi engeller.

Elde etmesi imkânsız bir derecede, kusursuzca adil olan algoritmalar hedeflemek yerine algoritmaların, yaptıkları hatayı kolayca düzeltebileceğimiz biçimde tasarlandığını hayal edin; otomatik sistemlerin donanımına harcadığımız zaman ve çabayı onları sınamak için de sarf ettiğimizi. Belki de çözüm algoritmaları temelden tartışmaya açık halde inşa etmektir. Bize talimat vermek yerine, karar alma aşamasında yardımcı olmak üzere yapıldıklarını düşünün. Yalnızca sonucu bildirmek yerine, ulaştıkları kararı nasıl aldıklarına dair şeffaf olduklarını düşünün.

Bana göre en iyi algoritmalar, her safhada insanı da sürecin içine sokanlardır. Makinenin çıktısına duyduğumuz aşırı güvenin farkında olup, kendi kusurlarını kabul eden ve kesin olmamayı işin merkezine gururla alabilenlerdir.

Kasparov yenilgiden sonra şöyle açıklıyor: “Bilgisayarların yardımıyla oynarken, hesaplamalara çok fazla zaman harcamak yerine stratejik planlamaya yoğunlaşabiliriz. İnsan yaratıcılığı bu koşullar altında daha da parlar.” Sonuç olarak, satranç daha önce eşine rastlanmayacak kadar yüksek bir seviyede oynanabilir. Anlamlı ve güzel stratejilerle dolu kusursuz taktiksel bir oynayış ortaya çıkar. İki dünyanın (İnsan-Yapay Zekâ) en iyi özelliklerini kendinde toplar.

Benim hayalimdeki gelecek de aynen böyle. Bu sayfaların çoğunu dolduran kibirli, diktatör bozuntusu algoritmaların geçmişte kaldığı türden.

Makinelerimizi objektif bakış uzmanı olarak görmeyi bıraktığımız ve onlara herhangi bir güç kaynağı gibi davranmaya başladığımız bir gelecek diliyorum. Makinelerin kararlarını sorguladığımız; gerekçelerini incelediğimiz, duygularımızı göz önünde bulundurduğumuz; kimin çıkarı olduğunu bilmek istediğimiz, hata yaptıklarında hesap vermelerini beklediğimiz ve vurdumduymaz olmayı reddedeceğimiz bir gelecek.

Algoritmaların toplamdaki net etkisinin toplumumuz için olumlu bir güç oluşturmasını istiyorsak başka çaremiz olmadığını düşünüyorum. Bu işi de bizden başkası yapamaz. Çünkü kesin olan tek bir şey var: Algoritma çağında, insan daha önce hiç olmadığı kadar önemlidir.

KAYNAKÇA

MERHABA DÜNYA-Makine Çağında İnsan Olmak-(Hello World)

Hannah FRY – Matematikçi /36 yaşında / İngiltere Sky TV için programlar yapıyor. Bu ilk kitabı.

Çeviri: İpek Güneş Çıgay

Hep Kitap Yayınları-İlk Basım: Mayıs 2019/ 255 sayfa

Notlar

[←1]

Distopik: Otoriter ve baskıcı toplum